最近,神经网络模型的解释引起了相当大的研究关注。在计算机Vi-Sion中,CAM(类激活图)基于基于cam的方法和LRP(层相关性传播)方法是两种common解释方法。但是,由于大多数基于CAM的方法只能产生全球权重,因此它们只能在深层进行粗粒的解释。LRP及其变体可以生成细粒度的解释。但是解释的忠诚太低了。为了应对这些挑战,在本文中,我们提出了FG-CAM(细粒度凸轮),该cam扩展了基于CAM的方法,以产生高粒度和高信仰。fg-cam使用具有分辨率差异的两个特征图层之间的关系,以逐渐增加解释分辨率,同时找到贡献的像素并滤除不贡献的像素。我们的方法不仅可以解决基于CAM的方法的短相处,而不会改变其特征,而且还产生了比LRP及其变体更高的忠诚度的细粒度解释。我们还以denoising呈现FG-CAM,这是FG-CAM的一种变体,能够产生较少的嘈杂解释,而忠实的解释几乎没有变化。实验结果表明,FG-CAM的性能几乎不受解释分辨率的影响。fg-cam在浅层和中间层中均显着优于基于CAM的方法,并且在输入层中均优于LRP及其变量。我们的代码可在https://github.com/dongmo-qcq/fg-cam上找到。
主要关键词
![arxiv:2303.09171v3 [CS.CV] 2024年1月31日PDF文件第1页](/bimg/f/fd7ac0009b7cec9124d47d61914008ee1b10e59f.webp)
![arxiv:2303.09171v3 [CS.CV] 2024年1月31日PDF文件第2页](/bimg/f/ff1392857061b96654988eccb68f73f56c07321a.webp)
![arxiv:2303.09171v3 [CS.CV] 2024年1月31日PDF文件第3页](/bimg/c/c25b7d097f1cad847b2ae6898727cbeb0028267b.webp)
![arxiv:2303.09171v3 [CS.CV] 2024年1月31日PDF文件第4页](/bimg/6/62e6eb967938ea7aa8c97134c541307528cafbff.webp)
![arxiv:2303.09171v3 [CS.CV] 2024年1月31日PDF文件第5页](/bimg/7/7a335f60e7165c1257e9155c5b390af69a35b561.webp)
